Алгоритъмът, използван в каталунските затвори, има „съществени недостатъци“, констатира одит

Неотдавнашен одит на испански логаритъм, употребен от системата за наказателно правораздаване, откри „ основни дефекти “ в надеждността на решенията за вероятността пандизчиите да извършат наново закононарушение.

Неотдавнашен одит на испански логаритъм, употребен от системата за наказателно правораздаване, откри „ основни дефекти “ в надеждността на нейните решения по отношение на вероятността пандизчиите да извършат наново закононарушение.

Eticas, логаритъм одиторска компания направи това, което съгласно тях е първият спортен одит на RisCanvi, логаритъм, който пресмята риска пандизчия да извърши наново закононарушение въз основа на поредност от претеглени характерности. 

Компанията интервюира пандизчии, юристи и психолози и съпоставя данни от 3600 освободени пандизчии през 2015 година, единственият разполагаем набор от обществени данни съгласно екипа. 

Одитът на Eticas разкри „ основни дефекти в надеждността на RisCanvi “ и сподели, че „ не съумява да реализира главната цел на AI: стандартизиране на резултатите и понижаване на дискретността “, известие за пресата за одита. 

„ RisCanvi е система, която не е позната от тези, на които въздейства най-вече, затворниците; на който не се доверяват доста от тези, които работят с него, които също не са подготвени за неговото действие и тежести “, се споделя в одита. 

RisCanvi е най-новият логаритъм, употребен от незаконната система, с цел да бъде подложен на критика. Академични изследвания на тези типове системи за прогнозиране в Обединеното кралство и Съединени американски щати са открили, че те са класифицирани неправилно като рискови или са давали на афро-американците по-дълги интервали на задържане. 

„ Непрозрачен “ метод за пресмятане на риска

Антонио Андрес Пуейо стартира да работи върху RisCanvi през 2009 година с екипа си в Университета на Барселона по искане на каталунското държавно управление. 

В Испания арбитър нормално получава отчет за пандизчия, който кандидатства за условно освобождение, който съдържа информация за това къде е настанен пандизчията и история на държанието му, до момента в който е в пандиза, съгласно отчет от вестника. В този отчет са включени изводи по отношение на риска от наново закононарушение на пандизчия от RisCanvi. 

Първоначално технологията трябваше да се насочи към риска от наново закононарушение измежду избрани пандизчии, като убийци и причинители на полови закононарушения, само че беше разширена, с цел да включва няколко типа повторни закононарушения измежду общото население на пандизчиите, съгласно Eticas’. 

Към 2022 година одитът сподели, че RisCanvi визира директно случаите на почти 7713 души. 

Андрес Пуейо сподели, че логаритъмът на RisCanvi дава резултат на всеки пандизчия по 43 рискови фактора в пет разнообразни категории, в това число равнище на обучение, история на принуждение или психологично здраве или проблеми със зависимостта. Рисковите фактори са избрани от предходни изследвания за наново закононарушение и личното изследване на Андрес Пуейо върху пандизчиите. 

Затворниците се подлагат на изявленията на всеки шест месеца, където събраните им данни по-късно се вкарват в системата и се преглеждат от над 100 валидатори. След това им се присвоява детерминанта на риска: червен за висок, жълт за междинен и зелен за невисок. 

Одитът споделя, че точните калкулации зад всеки риск са „ непрозрачни “, а интервютата с личен състав на първа линия демонстрират комплициране по отношение на това по какъв начин най-сетне се дефинира рискът. 

„ Няма премерване и вътрешни данни за това по какъв начин хората ръководят предложенията (на алгоритъма), “ съгласно Джема Галдън Клавел, основен изпълнителен шеф на Eticas.

„ Какво имаме следено в други области е методът, по който хората включват AI системи, в действителност зависи от техните съществуващи полезности ".

Андрес Пуейо твърди, че RisCanvi прави това, което би трябвало да прави, като понижава грешките на правосъдния отдел при освобождението на пандизчия, който евентуално може да извърши наново закононарушение. Технологията също по този начин улеснява взаимната работа на експертите в правосъдната система, продължи той. 

Алгоритъмът също се е трансформирал доста съгласно Андрес Пуейо от 2015 година насам, годината, употребена от Eticas за техния разбор. 

През 2016 година той стартира да прави разлика сред разнообразни типове повторни закононарушения, като самонасочено принуждение, наказано обезчестяване и принуждение против други пандизчии, което съгласно него води до по-малко подправени класификации на пандизчиите като рецидивисти.

> RelatedX попадна на ирландска тъжба за дискретност по отношение на потреблението на данни за модел за образование с изкуствен интелект

Грешки при разкриване заради „ политически решения “

Испанската одиторска компания Dribia получи достъп до данните на министерството на правораздаването на Каталуния от 2015 до 2020 година и разгласява обособен одит по-рано тази година. 

Техният разбор откри, че няма „ съществени дискриминационни пристрастия “ в системата RisCanvi въз основа на възраст, пол или народност. 

И въпреки всичко логаритъмът не откри, че пандизчиите под 30 години, направили принуждение в пандиза, има възможност да извършат наново закононарушение и подценява риска младежите и дамите да извършат самопричинено принуждение. 

Андрес Пуейо твърди, че кодът на точките на системата може също да бъде изменен от виновните лица, с цел да освободят повече хора от пандиза или не.

„ Можете да балансирате колко подправено негативни или позитивни (повторни престъпления) за това, което ([RisCanvi)] признава или позволява “, сподели той.

Докладът Dribia предлага на каталунското държавно управление да вкара система, основана на съвременен изкуствен интелект (AI) с нови рискови фактори и индикатори. 

Ако това не е допустимо, отчетът допуска, че „ най-малкото актуалните модели ще би трябвало да бъдат оценени “. 

Euronews се свърза с каталунското министерство на правораздаването, само че не получи отговор досега на издание. 

Други образци за логаритми в случаи на наказателно правораздаване

RisCanvi не е единственият образец за алгоритмични системи, употребявани в Испания, Европа или Северна Америка, които са изправени пред рецензии. 

Галдън Клавел от Eticas също извърши одит на VioGen, програмен продукт, който оказва помощ на испански полицейски чиновници при записване на случай на принуждение, учредено на пола. Той генерира резултат от 35 фактора за това какъв брой евентуално е причинителят да извърши в допълнение принуждение и основава „ персонализиран проект за сигурност “ с оживелия. 

Само преди три седмици VioGen беше подложен под въпрос, когато New York Times откри, че Лобна Хехмид, испанка, убита от брачна половинка си през юли, е получила оценка за „ невисок риск “ от неговия логаритъм. 

Инструментът за оценка на нарушителите на Обединеното кралство (Oasys), въведен през 2001 година, е спорен, тъй като чиновниците не са могли да видят данните, употребявани от логаритъма през последните две десетилетия, с цел да решат кои пандизчии съставляват риск до, съгласно публикация в The Conversation. 

В Съединени американски щати системата COMPAS взема решения за освобождение под гаранция и присъда. A 2016 от ProPublica откри, че софтуерът допуска, че чернокожите хора са по-склонни да създадат наново закононарушение, в сравнение с белите хора, макар че не са. 

За да се оправи с тези проблеми, Европейската комисия финансира план, наименуван Fair Predictions of Gender-Sensitive Recidivism с Университета на Егейско море в Гърция за основаване на „ система за изкуствен интелект без пристрастия “, която заслужено дефинира повторното закононарушение риск, съгласно техните.